Во отворено писмо упатено до претседателот на Royal Society, Пол Нерс, математичарите наведуваат дека водечките AI модели во последните неколку месеци направиле голем скок во решавањето математички проблеми. Меѓу потписниците се и добитниците на Филдсовиот медал Тим Гауерс, Мартин Хаирер, Петер Шолце, Венделин Вернер и Џејмс Мејнард.
Потписниците сметаат дека нивните предупредувања не треба да се отфрлаат како претерување. Нивната главна порака не е дека катастрофално сценарио е неизбежно, туку дека брзината на развојот бара сериозно разгледување на ризиците пред системите да станат уште поспособни.
Од математика до сајбер-напади и автономни системи
Математичарите особено истакнуваат дека напредокот на AI системите во една област може да биде сигнал за она што би можеле да го постигнат и во други технички сложени области.
Во писмото како потенцијално ризични области се наведуваат сајбер-безбедноста, контролата на автономното оружје, развојот на биолошки и хемиски агенси и насоченото ширење дезинформации. Авторите притоа не тврдат дека денешните системи веќе самостојно ги извршуваат сите овие задачи на натчовечко ниво, туку предупредуваат дека брзината на нивниот развој би можела да има последици и надвор од математиката.
Особено внимание привлече тврдењето дека најнапредните модели веќе го достигнале нивото на водечките човечки математичари во одредени области. Во писмото се наведува и дека еден од водечките AI системи решил проблем поврзан со еден од седумте Millennium Prize Problems, односно познатите математички проблеми што Clay Mathematics Institute ги издвои на почетокот на 21 век. Сепак, самите автори на писмото нагласуваат дека не можат да ги знаат сите детали за методологијата со која било дојдено до решението.
Предупредувањата доаѓаат и од самата AI индустрија
Писмото на математичарите се појави во момент кога слични дискусии водат и истражувачи кои директно работеле во AI компании.
Поранешниот истражувач во Anthropic, Џејкоб Коксон, ја напушти компанијата на почетокот на септември и јавно изрази загриженост поради развојот на системи што би можеле да станат способни самостојно да се унапредуваат. Неговиот колега Еван Хубингер исто така зборуваше за можноста за многу сериозен исход во следната деценија, со процена на ризикот поголема од 10 отсто. Важно е да се нагласи дека станува збор за нивни лични процени, а не за утврдена научна прогноза или консензус меѓу експертите.
Дополнително внимание привлече и развојот на AI агенти, односно системи што можат да извршуваат низа задачи со многу помалку директен човечки надзор. Токму зголемувањето на автономијата е една од причините поради кои прашањето за контролата на напредните модели сè почесто се наоѓа во центарот на дискусијата за AI безбедноста.
Засега не постои сигурен метод со кој би можело да се утврди кога, или дали воопшто, ќе биде развиена вештачка интелигенција што значително го надминува човекот во сите релевантни области. Поради тоа, предупредувањата на математичарите пред сè се однесуваат на управувањето со ризикот: нивната порака е дека безбедносните прашања треба да се решаваат додека луѓето сè уште имаат доволно простор да влијаат врз развојот на технологијата, а не дури кога нејзините способности ќе станат многу потешки за контролирање.
Како што пишува Yahoo News, потписниците бараат од Royal Society да го искористи своето влијание за потенцијалните ризици од напредната вештачка интелигенција посериозно да се дискутира меѓу носителите на одлуки и во јавноста.
Извор: webmind.rs
